Nhờ vào phong độ tốt ở câu lạc bộ, Jansen, một cựu thành viên đội U21, được gọi vào đội tuyển quốc gia và có trận ra mắt, vào sân từ ghế dự bị thay Thomas Hitzlsperger vào ngày 3 tháng 9 năm 2005, trong trận thua 0-2 trước đội tuyển bóng đá quốc gia Slovakia ở Bratislava. Sau đó, Jansen được triệu tập vào đội hình Đức ở World Cup 2006. Jansen ban đầu được chọn ở vị trí hậu vệ trái và Philipp Lahm chơi bên phải. Với màn trình diễn tốt của Lahm, anh chỉ được ra sân thêm đúng một lần, trận tranh hạng ba gặp Bồ Đào Nha. Anh còn có rất nhiều lần được gọi cho vòng loại Euro 2008. Bàn thắng đầu tiên của anh ở đội tuyển được ghi vào lưới đội tuyển bóng đá quốc gia San Marino ở vòng loại Euro 2008.

Sau khi cùng đội tuyển Đức giành chức vô địch World Cup 2014, anh tuyên bố kết thúc sự nghiệp thi đấu quốc tế, tổng cộng anh đã thi đấu 45 trận và ghi được 3 bàn thắng.